VC-Attention：值平滑与 Softmax 投影的低比特注意力
🧭 低比特注意力 · 量化推理加速
Nunchux AI · MIT · CMU · UC Berkeley · Stanford
训练免费的低比特注意力框架，用值平滑和融合概率投影同时提升量化和速度
📌 工作参考价值（4 点）
- 低比特激活量化中，value 异常值往往无固定通道/时空结构，可借鉴 V-Smooth：先对 token 做轻量在线聚类，使硬件 block 内分布更均匀，再对残差（减去块均值）量化，利用 online softmax 维护的 row sum 恢复均值；该方法无需重训，可直接套用到 Transformer 排序模型或 LLM-based Agent 的 attention 推理加速。
- softmax 高精度指数是低比特 attention 的非 GEMM 瓶颈，ExpCast-FP8 把 log-domain 分数直接映射为 E4M3 概率码，用一次融合乘加替代 FP32 指数和格式转换，可迁移到 LLM 推理 kernel，提高 Tensor Core 利用率、降低 pipeline 阻塞。
- 工程上关注到 block 量化尺度由最大值决定、典型值代表范围窄的问题；通过 token 重排 + 残差量化减少误差，这种思路也适用于 embedding/特征的低比特压缩。
- 该工作展示了在多种新 GPU 上对 attention kernel 的精细优化，可作为自研推理引擎中 attention 低比特实现的参考基线；但业务侧若以 CPU/通用 GPU 为主，需要评估移植成本。
VGI-Bench：视频生成模型视觉智能评测基准
🧭 视频生成模型视觉推理评测
University of Illinois Urbana Champaign · Tsinghua University · University of Waterloo · Massachusetts Institute of Technology · University of British Columbia
构建27任务810实例的VGI-Bench基准，评估视频生成模型零样本视觉推理，最强模型仅51.0%准确率
📌 工作参考价值（4 点）
- 评测生成式模型时，采用与模型视觉先验对齐的输入格式，且同时要求过程有效与最终状态正确，而非仅看最终生成结果；在商品视频、多模态内容生成评估中可借鉴其任务分层与难度校准方法（27 tasks / 810 instances / skill tags），避免基准过难或过易。
- 分析输入条件敏感性和失败模式：在生成式推荐文案、商品视频或创意生成中，可系统性地改变 prompt 条件（如视角、物体属性、时间演化）来定位模型不稳定点，用于指导 prompt 模板设计和后处理过滤。
- 合成数据微调转移边界：对使用合成数据训练生成式推荐模型有参考意义，需注意性能提升存在域转移边界，在合成数据与真实业务数据混合时应评估跨域泛化能力。
- 去噪过程自校正有限的结论（后期步骤主要细化早期假设而非纠正推理错误）与 LLM 推理中 self-correction 有限类似，提示在生成式推荐流水线中不要依赖模型生成过程中的自我修正，应引入外部验证器或约束（如规则、知识图谱）保证推理正确。
PlayWorld：以 Agent 玩家为基础的世界模型长程目标基准
🧭 世界模型评估 · Agent 自适应交互
The University of Hong Kong · Kling Team, Kuaishou Technology · The Chinese University of Hong Kong · Zhejiang University
用多模态 Agent 玩家按长期目标交互评测世界模型，揭示当前模型长程一致性与状态演化不可靠
📌 工作参考价值（4 点）
- 评估思路迁移：在推荐/Agent 系统中，用“目标驱动的模拟用户”评估长程交互（如多轮对话推荐、会话搜索），而非固定脚本；Agent 自适应调整动作，更接近真实用户行为，能暴露固定序列评测掩盖的问题。
- 维度拆分：借鉴其将评估拆为几何一致性、交互保真度、状态演化等维度，可对应推荐系统的会话一致性、用户反馈建模、记忆/状态保持等维度，分别设计测试场景，避免单一指标失真。
- 工程实现：使用多模态 Agent 根据观察帧和动作历史动态决定下一步，可复用到对话式推荐评测中，构建“用户模拟器”用于离线评估，降低人工标注成本。
- 注意局限：世界模型与电商场景有距离，但这类“目标驱动交互评估”对评估生成式推荐和个性化 Agent 的长程一致性有一定启发，业务落地需改造。
VideoRAE：基于表示自编码器驯服视频基础模型的高效视频生成
🧭 视频生成 · 潜空间自编码器
The Chinese University of Hong Kong, Shenzhen · Huazhong University of Science and Technology · Shenzhen Loop Area Institute · University of Science and Technology of China
用冻结视频基础模型特征 + 轻量自编码器压缩为连续/离散潜变量，SOTA 生成且收敛快 5 倍
📌 工作参考价值（4 点）
- 利用冻结基础模型特征做生成式推荐物品表示：将预训练视频/图文模型的多尺度语义特征通过轻量投影网络压缩成紧凑潜变量，可类比把商品多模态内容编码为生成式检索的 Semantic ID，省去从零训练 VAE 的成本。
- 表示对齐目标替代 KL 正则化：解码时引入局部/全局与冻结教师模型的对齐损失，能更好地保留语义信息，这种技巧可迁移到推荐系统中用户或物品编码器的蒸馏训练，避免 KL 坍塌。
- 多码本高维量化支持离散 token 生成：VideoRAE 的多码本量化将连续特征离散化为 token 序列，适合自回归生成式推荐（如生成下一物品 token），可参考其码本配置与训练策略。
- 轻量架构实现快速收敛：冻结主干 + 1D 自注意力投影的廉价设计使训练收敛加速约 5 倍，适合业务快速实验与低 GPU 预算场景。
移动端电影运镜生成扩散模型 CineMobile
🧭 移动端高效视频生成
Shanghai Jiao Tong University · Nankai University · Transsion
通过剪枝-蒸馏-量化三阶段优化，将大型视频扩散模型压缩至移动端，实现40倍加速的电影运镜生成
📌 工作参考价值（3 点）
- 主要是视觉生成领域的模型压缩贡献，对推荐/广告/Agent 系统的直接业务可借鉴点有限。
- 蒸馏引导的结构化剪枝策略可迁移至推荐模型压缩：先用蒸馏让剪枝后模型快速恢复能力，再联合微调。
- 强化学习与扩散蒸馏结合的少步生成方法，可为搜索推荐系统中使用扩散模型做生成式推荐（如 GenRec）时降低推理步数提供思路。
LooseControlVideo：基于空间阻塞的导演式视频生成控制
🧭 文本到视频生成 · 3D布局控制
Adobe Research
用有向3D稀疏框实现文本到视频的精确空间编排，显著提升轨迹、遮挡与运动一致性
📌 工作参考价值（4 点）
- 在电商广告视频创作中，可直接用稀疏3D框定义商品运动路径与遮挡关系，替代密集深度图人工制作，降低动态多对象场景的成本。
- 系统采用的 DNOCS 编码 将 3D 尺寸、方向和深度顺序解耦，可借鉴到多模态商品展示生成中，为推荐场景的虚拟主播或交互式货品演示提供显式遮挡先验。
- 局部精调能力允许在不破坏全局上下文的情况下，单独调整某个商品的轨迹或添加交互，适合实时协同创意编辑。
- 稀疏控制范式对 Agent 动作推演可视化有启发：用少量关键 3D 框约束复杂物理交互，可能迁移到虚拟环境下的多智体行为规划。
FashionChameleon：实时交互式人衣视频定制
🧭 交互式服装视频生成
Xiamen University · Alibaba Group
利用上下文学习和KV缓存调度实现单GPU 23.8FPS的实时流式服装切换视频生成
📌 工作参考价值（4 点）
- 实时换装交互：KV cache重调度（服装KV刷新、历史KV撤回、参考KV解缠）支持生成中途切换服装，可应用于电商直播换装、虚拟试衣间，无需重新生成整个视频。
- 单服装数据训练：通过故意制造参考图与服装图不匹配的Context Learning，仅需单服装视频即可学习运动一致性，降低多服装数据采集成本，适用于商品视频生成的快速冷启动。
- 长视频外推一致性：流式蒸馏中使用梯度重加权分布匹配，可借鉴于生成式推荐长序列行为建模，提升自回归生成稳定性。
- 实时性工程参考：单GPU 23.8FPS，比现有方法快30-180倍，为在线部署交互式生成提供了可行性设计思路，如商品流中动态换装展示。